Abdul-Rahman menentang Muawiyah I melantik anaknya Yazid sebagai pengganti kepada kedudukan khalifah. Apabila Marwan ibn al-Hakam mengumumkan berita ini kepada rakyat Madinah, dia cuba untuk memberikan kesahihannya dengan mengatakan bahawa ia adalah cara/adat (Sunnah) Abu Bakar dan Umar. Abdul-Rahman membantah hujah ini, berkata ia adalah adat Byzantine dan Parsi, bukan jalan Abu Bakar dan bukan Umar, dan bahawa tidak Abu Bakar atau Umar telah melantik keturunan sendiri sebagai penggantinya. Marwan cuba untuk menangkap Abdul-Rahman, tetapi beliau melarikan diri berlindung di rumah adik perempuannya Aisyah. Marwan kemudian cuba untuk memfitnah Abdul-Rahman dengan memetik Quran 46:17 dan secara palsu mendakwa bahawa ia diturunkan kerana Abdul-Rahman sendiri. [9]

Beliau meninggal dunia pada 666 Masihi.[1][2] Beliau telah dikebumikan di Makkah.[10]

Abdul-Rahman adalah moyang bagi banyak keluarga Albakri Al-Siddiqi: Al Atiqi ditemui di Kuwait, Arab Saudi, Yaman, Iraq, dan keluarga Siddiqui dan Quraishi di Asia Tengah dan Selatan. Di tanduk Afrika, mereka dikenali sebagai keluarga Sheekhaal atau Fiqi Umari di Somalia, Habsyah dan Kenya.[11]